Bên cạnh đó ông chú trọng đến công tác quân sự để lại nhiều dấu ấn: xây dựng Quảng đông Quân giới Cục, thành lập trường Lục quân Quảng Đông, xây dựng lực lượng Quảng Đông Thường thắng quân.

Lưỡng Hồ Học đường là trường quân sự thành lập năm 1896 có sự tham gia huấn luyện của giảng viên sĩ quan Đức, đến năm 1908 tại đây đã gửi đi du học tại Nhật 475 sinh viên và tại các nước châu Âu là 103 sinh viên, trong đó nổi tiếng nhất là Hoàng Hưng, Tham mưu trưởng đầu tiên của Quân đội Quốc gia Trung Quốc. Quân đội do Trương Chi Động huấn luyện quân đội ở Hồ Bắc, thường được gọi bằng ba tên: Tự cường quân, Nam dương quân và An quân nổi tiếng không kém Bắc dương quân của Viên Thế Khải ở miền bắc lúc đó. Lực lượng Tự cường quân đông tới 15.000 người và về sau đóng vai trò quan trọng trong cuộc Khởi nghĩa Vũ Xương lật đổ nhà Thanh năm 1911.

Khi nhậm chức Tổng đốc Lưỡng Giang (1894-1895, 1902-1903), tại Nam Kinh, Trương Chi Động cho thành lập Giang Nam Tự cường quân là lực lượng lục quân kiểu mới sớm nhất Trung Quốc lúc bấy giờ theo biên chế quân đội phương Tây, mời sĩ quan Đức đến huấn luyện quân đội.

Năm 1905, Trương Chi Động đã mua từ Nhật Bản về 2 chiếc khí cầu trinh sát kiểu Yamada. Loại khí cầu này có hình e-lip, đường kính nhỏ 3m, dài hơn 10m, phía dưới có dây cáp lớn, buộc cố định với cuộn cáp ở dưới, do quân lính quay trục để lên xuống. Phía dưới khí cầu có giỏ treo. Người vào trong giỏ treo, sẽ được khí cầu đưa lên cao và có thể quan sát các vùng rất xa xung quanh, ngoài ra còn có thể từ trên cao nhìn xuống phía dưới để chỉ huy quân sĩ chiến đấu. Với điều kiện lúc bấy giờ, loại khí cầu trinh sát này có thể nói là một loại thiết bị tiên tiến rất tuyệt vời. Sau khi chiếc khí cầu được chuyển đến Hồ Bắc không lâu, Trương Chi Động đã nhân tiện việc kiểm tra tân quân, tân giới, ra lệnh cho tiến hành diễn tập thả khí cầu ở đó và trở thành người đầu tiên thực hiện hàng không khí cầu ở Trung Quốc.